
測試用資料,十一月版釋出
在十月初步釋出後,十一月開始進行定期紀錄、合併資料的工作,並且一併跟上最新的租屋平台網頁結構。十一月以幾乎一週一次的頻率,完成三輪資料爬取,並將這些資料合併成一份完整的測試用資料集,數量已開始接近過去的水準,以去重複後的物件數來看,大約是 2023 同期的 95% 。

在十月初步釋出後,十一月開始進行定期紀錄、合併資料的工作,並且一併跟上最新的租屋平台網頁結構。十一月以幾乎一週一次的頻率,完成三輪資料爬取,並將這些資料合併成一份完整的測試用資料集,數量已開始接近過去的水準,以去重複後的物件數來看,大約是 2023 同期的 95% 。

開放台灣租屋資料的機器人,已經修復至可以進行基本的資料爬取工作,並在十月期間,完成了初步的測試用資料集釋出。這份資料集,主要是為了讓使用者能夠在正式恢復每日更新前,先行體驗目前的資料狀況。

在歷經 2025 年的多輪修復後,開放台灣租屋資料,已經完成主要爬蟲功能的重建,並將從十月開始,開放試爬的資料集,希望能在年底前,恢復到穩定運作的狀態。

跟大家宣佈一個好消息,以及一個壞消息 🥹 好消息是,機器人在停止運作四個月後,終於在 2024-09-08 正式復工,並完整爬取了 9 月的資料。 壞消息是,由於 591 持續調整網頁呈現技術,機器人在 2024-10-31 時,再次停止運作,目前尚未復原。 因此,開放台灣租屋資料,將再次暫停更新,直至 ddio 有空修復為止。這次的技術調整,還不確定解決方式,若有確切的復原時間,會再次通知大家。

很抱歉需要跟大家說明,由於 ddio 家中新生命降臨地球,加上 591 自 4 月開始,持續調整系統設定,導致爬蟲機器人,無法正常運作。因此,開放台灣租屋資料,將暫停更新,直至機器人與作者復原為止。目前已將已知的變動範圍,紀錄在 #176 ,若無太大意外,爬蟲會在九月時正式復工,十月則是復工後,首次完整月份的資料集釋出。

為了節省計算資源、簡化季度、年度資料處理流程,我們將從「使用 PostgresSQL 合併跨月資料」,改為「使用 ClickHouse local 合併跨月資料」。除了少數欄位名稱更改外,使用上並無其餘影響。 對新合併法有興趣者,歡迎參見合併原始碼。

我們在 10/06 ~ 10/26 期間,由於主機維護問題,導致爬蟲無法順利執行。

我們在 3 月 25 日至 4 月 13 日期間遭遇了一些技術問題,導致我們無法按時收集並更新部分租屋資料。我們深感歉意,現在將會詳細解釋所發生的情況及其影響。